Pada tahun 1932, Yamin memperoleh ijazahnya dalam bidang undang-undang di Jakarta. Beliau kemudian bekerja dalam bidang undang-undang antarabangsa di Jakarta sehingga tahun 1942. Kerjaya politiknya bermula awal dan beliau giat dalam gerakan-gerakan nasionalis. Pada tahun 1928, Kongres Pemuda II mengisytiharkan bahasa Melayu, kini dikenali sebagai bahasa Indonesia, sebagai bahasa gerakan nasionalis Indonesia. Melalui pertubuhan Indonesia Muda, Yamin mendesak supaya bahasa Indonesia dijadikan asas untuk sebuah bahasa kebangsaan. Oleh itu, bahasa Indonesia menjadi bahasa rasmi serta alat utama dalam kesusasteraan inovatif.

Semasa pendudukan Jepun antara tahun 1942 dan 1945, Yamin bertugas dengan Pusat Tenaga Rakyat (PUTERA), sebuah gabungan pertubuhan nasionalis yang disokong oleh pemerintah Jepun. Pada tahun 1945, beliau mencadangkan bahawa sebuah Badan Penyelidik Usaha Persiapan Kemerdekaan Indonesia (BPUPKI) diasaskan serta juga bahawa negara yang baru harus merangkumi Sarawak, Sabah, Tanah Melayu, Timor Portugis, serta juga kesemua wilayah Hindia Belanda. Sukarno menjadi presiden Republik Indonesia yang pertama pada tahun 1945, dan Yamin dilantik untuk jawatan-jawatan yang penting dalam pentadbirannya.